Suosnivač Anthropic-a, Džared Kaplan, upozorava da bi AI mogao jednog dana dizajnirati svoje naslednike, čime bi ugrozio ljudsku kontrolu. On poziva na pažljivo nadgledanje kako bi AI ostao usklađen sa ljudskim vrednostima i izbegao zloupotrebe.